偷偷篡改 function call 的数据,居然被 AI 察觉了😮 - 钛刻 - 科技风向旗 - 深度刻画技术趋势,引领数字未来 - 钛刻科技 | TCTI.cn

偷偷篡改 function call 的数据,居然被 AI 察觉了😮 - 钛刻 - 科技风向旗 - 深度刻画技术趋势,引领数字未来 - 钛刻科技 | TCTI.cn - 钛刻 (TCTI.cn) 为您提供最前沿的硬核科技资讯、深度评测和未来技术趋势分析。

共 4 篇相关文章

偷偷篡改 function call 的数据,居然被 AI 察觉了😮

由于需要做内容增强 RAG ,需要通过 tools / function call 去搜索官网、官方数据集。然后再让模型学习增强的数据集后,输出建议。 为了测试模型的“忠诚”度,故意污染了部分 function call 的 output 数据给模型。 然后,吃惊的地方是,GPT

tech www.v2ex.com 2026-04-20 01:16:23+08:00

偷偷篡改 function call 的数据,居然被 AI 察觉了😮

由于需要做内容增强 RAG ,需要通过 tools / function call 去搜索官网、官方数据集。然后再让模型学习增强的数据集后,输出建议。 为了测试模型的“忠诚”度,故意污染了部分 function call 的 output 数据给模型。 然后,吃惊的地方是,GPT

tech www.v2ex.com 2026-04-20 01:16:23+08:00

偷偷篡改 function call 的数据,居然被 AI 察觉了😮

由于需要做内容增强 RAG ,需要通过 tools / function call 去搜索官网、官方数据集。然后再让模型学习增强的数据集后,输出建议。 为了测试模型的“忠诚”度,故意污染了部分 function call 的 output 数据给模型。 然后,吃惊的地方是,GPT

tech www.v2ex.com 2026-04-20 00:16:23+08:00

偷偷篡改 function call 的数据,居然被 AI 察觉了😮

由于需要做内容增强 RAG ,需要通过 tools / function call 去搜索官网、官方数据集。然后再让模型学习增强的数据集后,输出建议。 为了测试模型的“忠诚”度,故意污染了部分 function call 的 output 数据给模型。 然后,吃惊的地方是,GPT

tech www.v2ex.com 2026-04-19 23:16:23+08:00